אחד הסיפורים על הרב צבי יהודה זצ"ל עוסק בתגובתו להתקפה שבאה מצדן של הישיבות הותיקות על צורת לבושם של בחורי ישיבת מרכז הרב. טענו נגדו כי ישיבת מרכז הרב אינה ישיבה, שכן הבחורים אינם לבושים שם כראוי לבחורי ישיבות – עם חליפות ומגבעות, זהו כבוד התורה, וכך ראוי שייראה תלמיד חכם. תגובתו, כפי שמסופר, הייתה: … המשך לקרוא לבשו מדים !